Do Neural Retrievers Prefer Certain Documents? Evidence of Learned Relevance Priors
神经检索的隐性偏好:模型从标注中学会了偏爱某些文档
🧭 监督式稠密检索中的隐性文档先验 ★ 深度解读
CONICET-Universidad de Buenos Aires · Quantit, Buenos Aires, Argentina · Brno University of Technology, Brno, Czech Republic
发现监督式双编码器在检索时会学到文档级相关性先验,导致低先验但真正相关的文档更难被找到
📌 工作参考价值(4 点)
- 用逻辑回归在冻结文档嵌入上训练相关性先验分类器,可快速诊断检索模型是否对特定文档类型存在系统性偏好,适合在电商搜索或推荐召回上线前做偏置审计。
- 标注数据中的“主流、全面、自包含”文档更易被选为正例,实际业务中应警惕训练数据构建带来的隐性偏好,可考虑对冷门、碎片化或技术性强的内容做主动过采样或数据增强。
- 先验得分与文档可寻性高度相关,可将其作为离线评估指标之一,识别出模型可能“歧视”的文档集合,针对性改进索引或重排序策略。
- LLM 生成式解释框架可迁移至推荐系统的特征归因或数据分布分析,用自然语言描述两个文档集合的差异,便于团队理解模型偏置来源。